신간 안내자료｜살림출판사

경기도 파주시 교하읍 문발리 파주출판도시 522-2  | Tel_031-955-1350 | Fax_031-955-1355

담당자  Homepage_ http://www.sallimbooks.com| e-mail_

에바리스트 갈루아,

한 수학 천재를 위한 레퀴엠

: 대자연을 지배하는 대칭의 언어를 만들다

마리오 리비오 지음 |심재관 옮김 |

148×210 | 20,000원 |ISBN 978-89-522-1247-4 03410 | 496면

2009년 9월 11일 출간

내/용/소/개

“매혹적인 책.”  ―<이코노미스트>

바흐의 작품과 루빅큐브, 남녀가 짝을 선택하는 방식, 물리학에서 다루는 소립자 사이의 공통점은 무엇일까? 이들은 모두 과학적이고 예술적인 원리들을 우아하게 통합하는 대칭의 법칙에 의해 지배받는다. 하지만 대칭에 대한 수학적인 언어―군론으로 알려져 있는―는 단지 대칭 전반에 대한 연구로부터 출현한 것이 아니라 불가해 방정식으로부터 출현하였다.

지난 수천 년 동안 수학자들은 점점 더 어려운 대수 방정식을 풀어 왔지만 5차방정식에 다다르자 그 해결의 행진은 중단되고 이후 300여 년 동안 완강한 저항에 부딪치면서 풀리지 않고 있었다. 독립적으로 활동했던 두 천재에 의해서 5차방정식이 단순한 공식으로 풀 수 없음을 밝혀짐으로써 이 문제는 해결되었다. 이 두 천재는 노르웨이 출신의 닐스 헨리크 아벨과 프랑스 출신의 로맨티스트 에바리스트 갈루아로 두 사람 모두 젊은 나이에 비극적으로 생을 마쳤다. 그러나 이들의 믿기 어려운 천재성은 수학 분야만이 아니라 과학 일반, 예술, 심리학, 그리고 대자연을 아우르고 통합하는 새로운 이론인 군론(group theory)을 창조해냈다.

“마리오 리비오는 인간이 대칭의 언어를 발견하게 되는 매력적인 이야기를 로맨티스트 천재 수학자와 드라마틱한 역사적 사건이 조우하는 시공간 속에서 풀어내고 있다. 순수 수학의 명백히 유리된 관심사가 어떻게 자연 세계에 대한 심오하고도 실제적인 통찰로 나아갈 수 있는지를 이해하고 싶은 독자에게 가장 중요한 책이다.”

―이언 스튜어트 Ian Stewart

■ 20살에 결투로 생을 마감한 한 천재 수학자로부터

수학의 새로운 역사가 시작되었다!

누구에게나 한 겨울에 내리는 눈이 바닥에 떨어져 녹기 직전, 눈의 결정을 보면서 아름답다고 느꼈던 경험이 있을 것이다. 마찬가지로 허공 속을 나르는 나비를 보고 똑같은 감정을 느낀 적도 있을 것이다. 이렇듯 인간은 왜 눈의 결정이나 나비를 보고 아름답다고 느끼는 것일까? 그렇게 눈의 결정이나 날개를 펼친 나비를 보고 아름답다고 느끼게 하는 요소는 무엇일까? 이 질문에 대답하는 이들에 따라 답은 다르게 나올 것이다. 아름다운 색, 비율, 문화적이고 신화적인 상상력이 반영된 이유들, 혹은 인간 존재에 비해서는 너무나 짧은 그들 생명의 찰나성 등등 다양할 것이나 그 중심에 놓여 있는 것은 아마도 대칭이라는 개념일 것이다. 우리는 흔히 대칭성이 없거나 적정한 비율에 어긋나는 대상에 대해 ‘기형(奇形)’이라는 표현을 한다. ‘기이한 혹은 기괴한 형태’라는 이 말에는 이미 자연적이거나 올바르거나 아름다운 형태라는 것은 어떤 것이라는 가정이 들어가 있다. 인간의 신체가 배꼽을 관통하는 중심선을 사이로 대칭적인 형상을 가지듯, 모든 자연적인 존재들은 그러한 대칭성을 그 자체로 가지고 있다. 이 대칭은 하지만 자연 속에서만 발견할 수 있는 것은 아니다. 인간이 이룩한 그 모든 것에 바로 이 대칭은 존재하며, 가장 중심적인 원리로 자리 잡고 있다.

“대칭은 과학, 예술, 지각 심리학 등 다양한 분야에 등장하는 핵심 개념이다. 대칭은 형상, 법칙, 수학적 대상물 등이 지니고 있는 견고한 알맹이이며 이 알맹이는 변환 속에서도 끄떡없이 견뎌낸다. 여러 분야에서 다른 모습으로 변장한 채 등장하더라도 대칭을 기술하는 언어는 이 불변의 알맹이들을 식별할 수 있어야 하고 식별할 수 있다.” 이것을 가능하게 만든 것이 ‘군론’이라는 수학 이론이며 그것을 만든 이는 바로 에바리스트 갈루아이다.

에바리스트 갈루아(Évariste galois)는 대혁명기의 프랑스에서 파리 인근의 부르라랭의 시장의 아들로 태어났으나 혁명의 혼란 속에서 20살에 비극적으로 생을 마감하게 된다. 그가 생전에 프랑스 과학원에 제출했던 논문은 이집트와 메소포타미아로부터 시작된 1,000여 년 동안 수많은 이들이 해결하려 했던 문제를 해결했던 것임에도 그 진정한 중요성은 이해되지 않았고 독단적인 아카데미와 위대했지만 자기중심적인 수학자들―대표적으로 오귀스탱 루이 코시를 들 수 있다―의 부주의함에 의해 소실되고 말았다. 여인이 개입된 모종의 결투로 인한 그의 죽음 역시 수많은 음모론을 낳았을 뿐 현재까지도 갈루아가 결투를 하게 된 정확한 원인 역시도 미스터리로 남아 있다.

하지만 갈루아의 동생 알프레와 친구 오귀스트 슈발리에는 자칫 망각의 심연으로 떨어질 뻔했던 갈루아의 유산을 다시 살려낸다. 갈루아가 생전에 남겼던 모든 원고들을 모아 수학자 조세프 리우빌에게 전함으로써 갈루아의 이름은 수학사에 불멸로 남게 되었다.

■ 1,000여 년에 걸친 대수방정식 해결의 역사,

그 종장인 5차방정식 장에서 군론이 태어나다!

수학사에서 군론이 등장하기까지의 역사는 파란만장하다. 수학의 여명기라 할 수 있는 이집트와 메소포타미아 문명으로부터 이 이야기는 시작한다. 현재 ‘아메스파피루스’ 혹은 그 파피루스를 최초로 발견한 이의 이름을 붙여 ‘린드파피루스’라고도 불리는 이 문서에 수록된 여러 수학 문제들은 요즘 수학 용어로 하면 1차방정식에 해당하는 것이었다. 이러한 1차방정식 문제들은 이후 수백 년 동안 반복적으로 역사에 등장한다. 그리스의 디오판토스의 비문에서 이탈리아의 피보나치가 쓴 『산반서』, 그리고 18세기의 영국 동요집 『마더구스』까지. 이 1차방정식과 함께 2차방정식의 해법을 찾는 노력 역시 수 세기를 거쳐 지속되었고 단순한 몇 가지 형태의 특정한 방정식에서 해를 구하게 되었으며 인도의 브라마굽타(598~670)에 이르러 최초로 음수해가 나오는 2차방정식도 해결되었다. 이러한 인도의 유산은 앞선 그리스, 아라비아의 수확과 더불어 유럽에 전파된다.

이제 대수방정식 해결을 위한 역사의 주무대는 유럽으로 옮겨진다. 3차방정식과 4차방정식을 해결하는 과정에서 델 페로, 타르타글리아, 카르다노, 페라리 이 네 사람을 둘러싸고 벌어졌던 일들은 수학사에서 가장 시끄러웠던 사건으로 남아 있다. 일반해를 찾는 일반 이론을 찾지는 못했지만 몇 가지 특수한 3차와 4차방정식을 최초로 해결한 사람으로 후세에 이름을 남기기 위해 그들이 벌였던 싸움은 현재의 지적소유권 분쟁의 양상보다 더 치열한 점이 있다. 결국 의사이자 수학자이며 천문학자이고 노름꾼이며 철학자이기도 한 카르다노의 이름이 당대에 널리 알려지게 되었고, 그의 『아르스 마그나』는 격찬을 받으며 유럽 수학계를 휩쓸게 되었다. 『아르스 마그나』를 학습한 이들은 이제 5차방정식이 오래지 않아 해결될 것이라 확신하게 되었고, 이후 수백 년 동안 5차방정식은 가장 흥미를 끄는 수학 문제 가운데 하나가 되었다.

라파엘 봄벨리, 프랑수아 비에테, 제임스 그레고리, 에렌프리트 발터 폰 치른하우스 백작, 에테엔느 베주, 레온하르트 오일러, 조세프 루이 라그랑주, 장 로베르 아르강, 요한 카를 가우스, 파올로 루피니 등 수많은 수학자들 모두 해를 구할 수 있을 것이라는 기대를 버리지 않았지만 해결의 단서만을 남겨둔 채 5차방정식의 역사에서 퇴장하게 된다. 그리고 이 역사의 한 복판에 노르웨이 출신의 닐스 헨리크 아벨과 프랑스의 에바리스트 갈루아가 수학사에 있어서 가장 비극적인 모습으로 등장한다. 26살의 나이에 가난에 찌들어 죽은 아벨과 20살의 나이에 결투로 생을 마감한 갈루아.

아벨은 사칙연산과 거듭제곱근으로 5차방정식의 해를 표현하지 못한다는 사실을 엄밀하고 명료하게 증명했다. 이 증명이 의미하는 바를 좀 더 쉽게 설명해 보자. 아벨은 일반 5차방정식과 그보다 차수가 높은 방정식의 경우 2차, 3차, 4차방정식에 통했던 방법이 더 이상 적용되지 않는다는 사실을 증명한 것이다. 다시 말해 계수만을 포함하는 대수적인 해 공식이 존재하지 않는다는 것이다. 결국 수십 명에 이르는 뛰어난 수학자들의 온갖 노력은 시시포스처럼 헛수고에 불과했다. 그렇다고 해서 5차방정식을 전혀 풀지 못한다는 뜻은 아니다. 특수한 5차방정식, 예를 들어 x5-243=0은 x=3을 해로 갖는다. 더구나 일반 5차방정식이라고 해도 컴퓨터로 계산하거나 타원함수 같은 고도의 수학 이론을 사용하면 얼마든지 풀 수 있다. 아벨이 발견한 내용은 기초적 대수로는 5차방정식을 공략하지 못한다는 것이다. 덧셈, 뺄셈, 곱셈을 비롯한 기본 연산과 거듭제곱근은 5차방정식 앞에서는 무용지물이 된다. 아벨의 증명으로 방정식 연구 방식에 근본적인 변화가 생겼다. 단순히 해를 찾으려는 시도에서 해의 존재성을 증명하는 방식으로 바뀐 것이다. 하지만 아벨은 너무도 때 이른 죽음으로 그보다 더 큰 문제는 손대지 못한 채 그대로 남겨두고 말았다. 임의의 방정식이 주어져 있을 때 그 방정식의 대수적 가해성을 어떻게 결정할 수 있을 것인가? 앞서 말했듯이 다수의 방정식은 해결할 수 있다. 특히 아벨의 증명은 특정한 방정식이 그 나름의 해 공식을 지닐 가능성을 여전히 열어두고 있었다.

이러한 아벨의 증명을 알지 못한 채, 갈루아는 방정식의 가해성 문제에 대한 새롭고도 대담한 아이디어를 담은 논문을 과학원에 제출한다. 그는 가해성의 질문에 답하기 위해 군이라는 새로운 개념을 도입했을 뿐만 아니라 오늘날 갈루아 이론이라고 불리는 새로운 대수학 분야를 만들어냈다. 그 출발점으로 갈루아는 라그랑주가 남겨 놓은 이론에 주목했다. 그는 방정식의 추정 해들 사이의 관계, 그리고 그 관계를 그대로 놓아두는 추정 해의 치환들을 면밀히 살폈다. 갈루아는 방정식마다 그 방정식의 ‘유전 정보’에 해당하는 것(갈루아 군)을 부여했고 그 갈루아 군의 성질이 방정식의 가해성이나 불가해성을 결정한다는 사실을 보여주었다. 이제 대칭은 핵심 개념이 되었고 갈루아 군은 방정식의 대칭성을 직접적으로 재는 측도 역할을 했다.

■ ‘순수 수학의 명백히 유리된 관심사가 어떻게 자연 세계에 대한 심오하고도 실제적인 통찰로 나아갈 수 있는지를 이해하고 싶은 독자에게 가장 중요한 책’

대칭이라는 미로를 탐색할 때 수학자와 과학자와 예술가들은 군론이라는 언어를 앞길을 밝히는 등불로 삼았다. 수학사 연구자인 제임스 뉴먼의 기념비적 저서인 『수학의 세계』에는 ‘군론’에 대해 다음과 같이 정의하고 있다. “군론이란 한 대상과 다른 대상에 동일한 무언가를 적용하여 나오는 두 결과, 또는 동일한 대상에서 서로 다른 무언가를 적용하여 나오는 두 결과를 비교하는 수학 분야이다.” 수학 전문가를 제외하고는 대개의 일반 사람들은 이러한 설명을 이해하기는 불가능할 것이다. ‘군론’이라는 것을 좀 더 쉽게 설명해 보자.

동일한 의미를 가지고 있는 농담을 누가, 어떤 상황에서 어떻게 하느냐에 따라 표현 방법은 말 그대로 사람 수만큼 많을 것이다. 그러니까 같은 농담이라도 맥락과 상황에 따라 달리 표현할 수 있다는 것이다. 지적 능력에 문제가 있는 사람을 두고 물리학자는 “머리가 돌덩어리라서(밀도가 너무 높아서) 주변의 빛이 휠 지경이다.”라고, 인터넷에 익숙한 세대는 “그 친구 URL은 외부 액세스를 허용하지 않는다.”라고, 또 세무사는 “만일 두뇌에 세금을 매긴다면 그 친구는 환급금을 받아야 한다.”라고, 화학자는 “그 사람 IQ는 상온보다 낮다.”라고 할 수 있을 것이다. 각기 표현 방식은 다르지만 본질적으로 모두 동일한 의도, 즉 의미를 가지고 있다. 마찬가지로 『백설공주』와 『신데렐라』와 같은 동화들은 겉옷만 다르게 입었을 뿐 실제로는 동일한 이야기라고 할 수 있다. 『백설공주』나 『신데렐라』 모두 못된 계모가 주인공을 괴롭히지만 주인공은 결국 왕자를 만나 행복한 삶을 살게 된다는 것이 기본 줄거리이다. 이와 비슷한 상황이 군에서도 일어난다. 동일한 군 구조이면서 전혀 다르게 보이는 개념들로 모습을 드러내는 것이다. 결국 머리가 나쁜 사람에 대해서 한 물리학자와 인터넷 세대, 세무사, 화학자의 다양한 농담 방식이 결국 한 가지 동일한 하나의 의미로 통합되듯, 그리고 『백설공주』와 『신데렐라』의 외견상 서로 다른 이야기가 결국 하나의 줄거리 혹은 플롯으로 통합되듯 군은 서로 다르게 보이지만 본질은 같은 것들을 통합할 수 있게 해주는 힘이 된다.

앙리 푸앵카레가 모든 수학은 군의 문제라고 생각한 것처럼 대수방정식 이론, 여러 다양한 기하, 심지어 수론처럼 아무런 연관성이 없어 보였던 분야들이 갑자기 한 가지 기본 구조 아래에서 통합되었으며, 이처럼 군론이 지니는 통합의 힘은 19세기 말에 이르러 순수 수학의 경계를 넘어서기에 이른다. 특히 물리학자들이 군론에 주목하기 시작했다. 우선 아인슈타인의 일반상대성이론을 통해 기하가 바로 우주의 핵심적 속성임이 드러났다. 그리고 대칭이 모든 자연법칙의 궁극적 원천이라는 점도 밝혀졌다. 이 두 가지 단순한 진리 덕분에 포괄적 우주론을 찾으려면 우주 안에 내재하는 군을 찾아야 한다는 확신이 생겨났다. 더 나아가 아인슈타인의 특수상대성 방정식이 시공간 회전변환에 대한 대칭성(물리학 용어로 ‘로렌츠 공변성’이라고 한다)을 갖는다는 사실을 통해 움직이는 관찰자에게 자연 법칙이 변하지 않는다면 그러한 법칙을 갖는 방정식은 로렌츠 공변성을 만족해야 할 뿐 아니라 자연 법칙 자체가 대칭성 조건에서 연역될 수 있다는 생각에까지 이르게 되었다. 즉 자연 법칙을 세우는 논리적 과정 자체가 완전히 뒤집어진 것이다. 엄청난 양의 실험 결과와 관측 결과에서 출발하여 이론을 세운 후 그 이론이 특정한 대칭 원리를 따르는지 확인하는 방식 대신 대칭 조건이 먼저 오고 그 조건에서 자연 법칙이 결정되어 나온다는 점을 깨닫게 된 것이다.

이 대칭성의 원리를 바탕으로 아인슈타인은 먼저 가속도와 중력이 동전의 양면임을 보였고 그 다음에 이 개념을 확장하여 중력이 시공간의 기하를 반영한다는 사실을 보여주었다. 이후 에미 뇌터는 대칭성과 보존 법칙을 하나로 융합하는 정리를 찾았으며, 글래쇼와 와인버그와 살람은 전자기력과 약학 핵력 사이, 그리고 또 두 힘의 전달자 사이에 차이가 있지만 그 배후에 주목할 만한 대칭이 존재한다는 것을 알게 됨으로써 전자기력과 약학 핵력이 동일한 힘이라는 사실을 밝혀내고(게이지 대칭성) 이제 특수상대성이론과 일반상대성 이론을 넘어 기본 입자의 표준 모델에 이르기까지 대칭과 군론이 올바른 길로 인도하는 힘의 원천임이 드러나게 되었다. 그리고 이는 양자역학 분야에서 ‘초대칭’의 발견으로, 우주론에서 ‘끈이론’으로까지 이어진다.

과연 우주의 구성에서 대칭이 하는 역할을 두고 어떤 결론을 내릴 수 있을지에 대해서 여전히 확정된 답은 나오지 않았다. 이 책의 필자 마리오 리비오는 의심할 여지 없이 대칭 원리는 거의 항상 우리에게 무언가 중요한 것을 일러주며 우주의 원리를 밝혀내는 데 매우 귀중한 단서를 제공할 것이며, 그러한 의미에서 대칭은 풍성하다고 말한다.

이 책은 자연과 예술, 과학, 그리고 심리학을 비롯한 인문학의 다양한 분야들 속에서 핵심 개념으로 자리 잡고 있는 대칭이 어떤 의미를 가지고 있는지, 그리고 그 대칭의 언어는 어떻게 발견되었는지에 대한 지난한 역사와 기록들을 씨실로 삼으면서 그 어떤 수학적 창조보다 위대한 발견을 이루어냈던 비극적 천재 에바리스트 갈루아의 천재성과 비극적 삶을 날실로 삼아 세밀한 테피스트리를 짜 놓고 있다. 이 속에서 자연 법칙과 음악처럼 완전히 동떨어져 있는 분야들도 신비롭게 연결되어 있다. 그리고 그 테피스트리 한 가운데에 새겨진 바벨탑은 그들을 하나로 묶는 언어인 대칭이다. 자연 과학과 인문학의 ‘통섭’이 중요한 화두인 이 시대에 있어 이 책은 독자들에게 진정한 통섭이 어떻게 이루어질 수 있는지 알게 될 것이며 수학적 추상화가 자연 과학의 법칙을 넘어 어떻게 인간의 인식과 개념을 혁명적으로 전환시키기에 이르게 되었는지 그 힘의 원천을 발견하게 될 것이다.

본/문/보/기

갈루아의 장례식은 6월 2일 토요일에 치러졌다. 그의 친구와 ‘인민의 벗’ 당원 그리고 법과대학과 의과대학 대표 학생 등 수천 명이 장례식에 참석했다. ‘인민의 벗’ 지도자인 플라뇰과 샤를 피넬은 열정적인 조사를 바쳤다. 만일 공화주의자들이 소요를 일으킬 계획을 세웠다고 한다면 그들의 계획은 뜻밖의 사태로 물거품이 되고 말았을 것이다. 그 전날 밤에 예방 조치로 공화주의자 30명 가량을 체포한 경찰청장 지스케는 장례식 진행 과정을 예의주시하고 있었다. 그는 회고록에서 이렇게 쓰고 있다.

6월 2일. 2,000에서 3,000명 가량의 군중이 르갈루아(갈루아의 오기)의 장례식에 모여들었다. 그들은 돌아갈 시간이 되었을 때 바리케이트를 칠 심산이었다. 하지만 라마르크 장군의 사망 소식이 전해졌다. 그러자 그들은 라마르크 장군의 장례식에 훨씬 더 많은 사람이 몰려들 것이고 그만큼 큰 소요가 일어날 가능성이 있다고 판단했다. 그래서 그들은 계획을 수정했다. 애국지사인 장군의 장례식을 반란의 신호로 삼는 것이 좋을 듯했다. 그렇게 해서 계획을 5일로 연기했다.

자신의 죽음을 통해 소요를 일으키려 했으나 운명의 여신은 그런 기회조차 앗아가 버렸다. 크게 낙담한 오귀스트 슈발리에는 1832년 9월에 갈루아를 추모하는 간략한 글을 발표했다. 다행히도 운명의 여신은 갈루아의 수학 업적에 대해서는 비교적 관대했다. 갈루아의 동생 알프레와 친구 오귀스트 슈발리에는 에바리스트 갈루아의 수학적 유산을 망각의 심연에서 건져내기 위해 무진 애를 썼다. 그들은 종이 한 장도 빼놓지 않고 모두 수집했고 모든 원고의 목록을 만들었다. 그리고 그들은 그렇게 해서 얻은 소중한 자료를 수학자 조세프 리우빌(1809~1882)에게 건넸다. 갈루아의 연구 결과에 크게 탄복한 리우빌은 1843년 과학원에서 이런 말을 하며 강연을 시작했다. “본인은 에바리스트 갈루아의 논문 가운데서 엄밀하고 심오하며 우아한 정리를 발견했습니다. 정리의 내용은 소수 차수의 기약방정식이 주어져 있을 때 거듭제곱근을 이용한 가해성을 해명하는 것입니다. 과학원 측의 관심을 기대합니다.” 1846년, 리우빌은 자신의 학술지에 논문을 실으면서 세상을 향해 이렇게 알렸다. “나는 갈루아의 증명 방식, 특히 방정식의 가해성 정리가 지니는 정교함을 알아보았다.” 곧 갈루아 이론의 뛰어남을 인정하는 이들이 뒤를 이었다. 갈루아가 신뢰를 보냈던 야코비는 기대를 저버리지 않았다. <리우빌 저널>에 실린 갈루아의 논문을 읽고 나서 그는 초월함수에 관한 갈루아의 연구가 더 있는지 알아보고자 곧바로 알프레에게 연락을 취했다. 1856년이 되자 갈루아 이론은 프랑스와 독일의 고등 대수학 교과 과정에 도입되었다.

갈루아를 쫓아냈던 학교도 태도를 바꾸었다. 설립 100주년을 맞이하여 에콜 노르말은 유명한 노르웨이 수학자 소푸스 리(1842~1899)에게 갈루아 이론이 수학사에 미친 영향을 개관하는 글을 써달라고 요청했다. 리는 그 글에서 이런 결론을 내렸다. “지금까지 나온 이론 가운데 가장 심완 두 이론(아벨의 정리와 갈루아의 대수방정식 이론)은 22살의 아벨과 20살이 채 안 된 갈루아 두 기하학자의 연구 성과이다. 수학이 지니는 두드러진 특징을 들라고 하면 바로 그 사실을 들고자 한다.” 위대한 수학자 에밀 피카르(1856~1941)도 19세기 수학 분야의 성취를 평가하면서 갈루아에 대해 이렇게 말했다. “그 개념의 독창성과 심오함에서 어느 누구도 그를 능가하지 못한다.”

1999년 6월 13일, 에콜 노르말 학장인 쥘 타네리가 부르라랭을 방문하여 갈루아 생가에 기념 석판을 설치하는 자리에서 특별 연설을 했다. 자신이 감정을 억누르지 못하며 타네리는 다음과 같은 자기 잘못을 시인하는 감동적인 말로 연설을 마무리했다.

에콜 노르말의 학장이라는 신분 덕분에 이 자리에서 연설을 하는 영광을 누리게 되었습니다. 저희 학교를 대신하여 갈루아라는 천재에게 사죄를 드릴 기회를 주신 점에 시장님께 감사를 드립니다. 그는 저희 학교에 어쩔 수 없이 입학했고 또 그곳에서 제대로 대접받지 못했으며 결국에는 퇴학을 당했지만 결국 그는 저희 학교를 비춰주는 영광스러운 불빛이었습니다.

내가 부르라랭 공동묘지에 서 있을 때 그 진심어린 학장의 말이 귓가를 맴돌았다. 에바리스트의 짧은 생애 동안 아버지와 아들로서 두 사람의 관계가 특별했듯이 아버지 니콜라 가브리엘 갈루아를 추모하는 기념비와 아들 에바리스트 갈루아를 추모하는 기념비가 하나로 붙어 있다.

그러나 제 아무리 정교한 이론이라도 특정 방정식의 가해성을 해결하기 위해 만들어낸 도구가 어떻게 해서 온 세상의 대칭을 기술하는 언어로 진화할 수 있었던 것일까? 사실상 대칭을 논할 때 대수방정식이 가장 먼저 떠오르지는 않는다. 갈루아 자신도 그의 이론이 어디로 나아갈지 확실히 알지 못했다. “내 이론을 응용할 사람이 내 연구 결과를 세심하게 읽어 내려갈 때에만 내 일반 이론을 재대로 이해할 수 있을 것이다.” 바로 이 대목에서 마법처럼 여러 이론을 통합하는 군론이 등장한다. 포괄하고 통일하는 군론의 힘을 두고 영국 수학자 베이커는 “시작은 미약하지만 그로부터 얼마나 위대하고 창대한 사상이 나오는가!”라고 찬탄했다.

―5장  중에서

특수상대성이론에 따르면 어떤 질량이나 에너지나 저보다 빛보다 빨리 퍼져나갈 수는 없다. 하지만 뉴턴은 중력이 공간을 뚫고 순식간에 작용한다고 보았다. 중력이 그렇게 ‘빠른 속도’로 순식간에 작용한다면 참으로 희한한 일이 일어나게 된다. 예를 들어 만일 태양이 갑자기 사라진다면 태양계 안의 모든 행성은 곧바로 직선 운동을 할 것이다. 왜냐하면 행성을 타원 궤도 안에 붙잡아두던 힘이 사라졌기 때문이다. 하지만 지구 위에 있는 사람들의 눈에는 태양이 8분 가량 뒤에나 사라지는 것으로 보인다. 왜냐하면 태양에서 출발한 빛이 지구에 당도하기까지는 그만한 시간이 소요되기 때문이다. 만일 해왕성에 사람들이 살고 있다면 차가운 공간 속으로 4시간 동안 정처 없이 날아간 뒤에나 태양이 사라지는 것을 보게 될 것이다. 원인과 결과가 이런 식으로 뒤바뀌면 현실 세계에 대한 우리 인식은 온통 뒤죽박죽이 되고 말 것이다. 특수상대성이론과 등가 원리의 올바름을 굳게 믿었던 아인슈타인은 뉴턴의 중력 이론을 면밀히 살펴볼 필요가 있다는 점을 깨달았다. 시공간이 휘어져 있을지 모른다는 생각을 처음 하게 된 것은 또 다른 흥미로운 사고 실험 덕분이었다. 본래 그 사고 실험을 제안한 사람은 물리학자 파울 에렌페스트(1880~1993)로 나중에 그 내용은 ‘에렌페스트의 역설’이라는 이름으로 알려졌다. 특수상대성원리에 따르면 움직이는 물체의 길이는 움직이는 방향으로 줄어든다. 속력이 빠르면 빠를수록 수축의 정도는 더욱 커진다. 이는 착시 현상이 아니다. 정지한 막대가 들어가지 못하는 좁은 공간이더라도 빠르게 움직일 경우에는 잠깐 동안 그 공간 안에 머물 수 있을 만큼 막대의 길이는 짧아진다. 콤팩트디스크 같은 납작한 물체가 매우 빠른 속도로 회전하는 경우 어떤 이이 일어날지 생각해 보자. 디스크 둘레는 안쪽보다 더 빨리 돌기 때문에 더욱 많이 수축한다. 그 결과 디스크는 뒤틀리고 만다. 가속도를 뒤틀림의 요인으로 파악한다는 개념이 도입되자 아인슈타인은 그 개념을 붙들고 숙고를 거듭했다. 그리고 그는 가속도가 시공간을 휘게 만든다는 결론을 내렸다. 등가 원리에 따라 가속도가 공간을 휘게 만든다면 중력 역시 공간을 휘게 만들 것이다. 이는 일반상대성이론의 핵심 내용이 되었다. 마치 안전망에 내려앉는 서커스 곡예사가 그물망을 꺼지게 하는 것처럼 중력은 시공간을 뒤틀어 휘게 만든다. 무거운 물체는 그물망을 더욱 꺼지게 하듯이 질량이 크면 클수록 그 근방의 공간은 더욱 휘게 된다. 사하라사막에서 모래 언덕을 피해서 달려가는 지프차의 궤적은 지형으로 결정된다. 그와 마찬가지로 태양 주위를 도는 행성의 궤적은 태양에 의해서 시공간에 만들어진 곡률의 결과물이다. 단순히 행성은 가장 짧은 경로를 따라서 움직이고 그 궤도의 형태는 시공간의 휘어진 기하를 드러낸다. 휘어진 시공간에서 중력의 영향은 순식간에 미치지 않는다. 계산을 통해 아인슈타인은 시공간의 변형이 정확히 빛의 속도로 마치 연못의 파문처럼 번져 나간다는 사실을 밝혀냈다. 만일 태양이 갑자기 사라진다면 지구에 가해지는 중력은 8분 뒤에나 사라진다. 시야에서 태양이 사라짐과 동시에 중력도 없어지는 것이다. 뉴턴 물리학의 골치 아픈 마지막 문제가 해결되었다.

휘어진 시공간을 새로운 우주론의 주춧돌로 삼자 이제 아인슈타인은 그러한 공간을 기술하는 수학적 도구가 필요했다. 이 시점에서 아인슈타인은 학창 시절에 수학 수업을 제대로 듣지 않았던 일을 후회했다. 하지만 다행히도 도움을 청할 만한 사람이 있었으니 바로 아인슈타인의 절친한 동창이자 뛰어난 수학자인 마르켈 그로스만(1878~1936)이었다. …… 믿음직한 그로스만은 아인슈타인의 기대를 저버리지 않았다. 그는 아인슈타인에게 리만의 비유클리드 기하학을 알려주었고 엘빈 크리스토펠, 그레고리오 리치쿠르바스트로, 툴리오 레비치비타 등이 만들어낸 수학 이론도 일러주었다. 앞에서 말했듯이 리만은 마치 예견이라도 한 듯 아인슈타인에게 필요한 도구를 예전에 마련해 놓고 있었다. 미분기하학으로 알려진 텐서(tensor) 해석학(텐서는 다차원 공간을 나타낼 때 사용하는 한 무리의 숫자이다) 덕분에 정확한 계산을 알 수 있었다. 1912년에서 1915년 사이에 몇 차례 막다른 골목에 들어서는 좌절을 겪고 난 뒤 아인슈타인은 자신을 인도할 등불을 따르기로 했다. 등불이란 일반 공변성 원리에서 나오는 것으로 모든 기준들의 대칭성이었다. 그의 이러한 직관력은 열매를 맺었다. 1915년 말에 시공간과 중력을 포괄하는 일반상대성이론이 탄생했다. …… 대칭성의 원리를 바탕으로 아인슈타인은 먼저 가속도와 중력이 동전의 양면임을 보였다. 그런 다음에 그는 이 개념을 확장하여 중력이 시공간의 기하를 반영한다는 사실을 보여주었다. 이론 전개에 사용한 도구는 리만의 비유클리드 기하학이었다. 리만의 비유클리드 기하학은 바로 펠릭스 클라인이 기학은 군론의 현현이라는 점(왜냐하면 모든 기하는 그 대칭변환으로 규정되기 때문이다)을 보여주는 데 사용한 바로 그 기하학이다. 이 얼마나 놀라운 일인가!

갈루아가 군론을 만들어냈을 때 그는 군론의 응용 가능성을 확신하고 있지 않았다. 하지만 클라인, 리, 리만, 민코프스키, 푸앵카레, 힐베르트 등의 위대한 수학자와 탁월한 물리학적 직관력을 지닌 아인슈타인의 출현으로 대칭과 군론은 시공간과 중력을 기술하는 기본 도구가 되었다.

―7장 중에서

수많은 실험 자료에 따르면 꿀벌과 비둘기에서 인간에 이르기까지 많은 생물의 지각 시스템은 좌우대칭에 매우 민감하다. 대칭 패턴은 비대칭 패턴에 비해 신속히 파악할 수 있으며 익히기도 쉽고 또 기억에서 되살리기도 쉽다. 다양한 생물의 이러한 능력은 포식자 회피 필요성과 관련이 있는 걸까? 지각 하드웨어 및 소프트웨어가 풀려고 했던 적응 과제는 정확히 무엇이었을까? 질문을 다음과 같이 조금 다르게 표현하면 답을 찾는 단서를 얻을지 모른다. 예배당, 자동차, 비행기, 그밖에 인간이 만든 물건이 없는 세상에서 좌우대칭으로 보이는 것은 무엇일까? 답은 손바닥을 보듯 분명하고 간단하다. 즉, 동물과 인간이다! 사자의 궁둥이도 좌우대칭이기는 하지만 앞쪽에 비해서는 대칭성이 그렇게 뚜렷하지는 않다. 다시 말해 좌우대칭의 감지 능력은 “누군가 나를 지켜보고 있다.”라는 육감을 의미한다. 상대를 주시한다고 해서 반드시 위해를 가하려는 뜻이 있다고 할 수는 없다. 하지만 좌우대칭의 신속한 감지는 생명과 죽음을 가르는 중대한 능력이다.

뉴욕 대학교 신경과학 센터의 조지프 르두는 생태심리학적 현상이 아니라 순전히 생리학적인 현상으로 정서를 연구한 개척자이다. 르두는 사랑과 강박 충동의 혼화나 욕망과 질투 사이의 상호작용에서 생겨나는 갈등과 같은 복잡한 감정에는 관심을 기울이지 않는다. 그 대신 공포의 정서를 낳는 뇌 회로를 연구하였다. 그 결과 르두는 공포에 대한 반응은 ‘두뇌의 상위 처리 시스템’을 사용하지 않는 인지적 무의식이라는 사실을 발견했다. 간단히 말하면 두뇌의 포식자 감지 모듈은 도난 경보기를 설계할 때와 비슷한 궁지에 맞닥뜨린다. 설계자는 한편으로 어떤 침입 시도에도 곧바로 반응하는 경보기를 원하지만 다른 한편으로는 잘못된 경보의 횟수를 최소화하기를 원한다. 그렇지만 몇 차례 잘못된 경보보다도 반응 지연은 훨씬 더 위험하며 지불해야 하는 대가도 크다. 그런 점을 고려할 때 별개의 두 신경 경로를 통해 두뇌가 작동한다는 사실을 르두가 발견한 것은 전혀 놀라운 일이 아니다. 두 신경 경로 가운데 한 경로는 길이가 짧으며 짧은 신경 경로 덕분에 두뇌가 자극을 온전하게 분석하기 전에 동물은 잠재적 위험 자극에 신속하게 반응한다. 또 다른 경로는 감각 피질을 통과하며 더욱 포괄적인 처리 과정에 관여한다.

즉각적 정서(의식적 감정과는 대비되는 정서)에서 중추적 역할을 하는 것이 전뇌부에 위치한 아몬드 모양의 편도체이다. 르두는 실험쥐의 두뇌 회로를 알아내고 공포의 감정에 관여하는 정확한 경로를 파악하기 위해 뉴런에 화학약품을 착색했다. 이는 단순히 실험쥐의 행동 습성을 관찰하는 실험 방식에서 크게 진일보한 것이다. 르두는 생쥐 한 마리가 첫 번째 경고음(날카롭게 우짖는 소리)을 내자 다른 생쥐가 받아들인 신호는 감각 시상(감각이 전달될 때 중계 역할을 하는 회백질 덩어리)에서 곧바로 편도체로 들어간다는 사실을 발견했다. 강한 자극을 받은 편도체는 방어 체계를 가동시킨다. 반응은 죽은 듯이 얼어붙은 형태(눈에 띠지 않으려는 의도)가 되기도 하고 아니면 심장박동이 빨라지고 호르몬 분비가 왕성해지는 형태가 되기도 한다. 분비된 호르몬은 적합한 행동을 취하게 하는 데 도움을 준다. 따라서 생쥐는 도망을 치거나 아니면 포식자에 맞서 싸울 태세를 취한다.

인간을 포함하여 편도체를 지닌 모든 종에서 한결같이 그 부위가 공포 반응을 조절하는 듯하다. 편도체 부위에 손상을 입은 여성을 조사한 결과 그 여성은 공포와 관련된 얼굴 표정을 읽는 능력을 완전히 상실했다고 한다.

충분한 분석 없이 곧바로 반응하는 메커니즘은 잘못된 경보와 불필요한 고통을 야기할 가능성이 높다. 하지만 시상은 좀 더 정확하게 신호를 처리하는 부위, 즉 지각 피질로도 정보를 보낸다. 보다 느린 경로를 통해 편도체는 실제 자극과 맞아떨어지는 신호를 받아들여 과잉 반응을 막아준다.

위에서 보았듯이 때때로 좌우대칭을 감지하는 것만으로도 공포 메커니즘을 작동시키는 경보가 발동된다. 또 좌우대칭은 포식자가 스스로를 보호하는 메커니즘으로 작용하기도 한다. 많은 동물이 독특한 냄새, 소리, 색깔 같은 다양한 신호를 이용하여 자신이 위험하다거나 혹은 먹잇감으로 맛이 없다고 광고한다(그런 동물들을 이러 경고색 동물이라고 한다). 예컨대 일부 나비는 평소에는 숨겨져 있는 눈 모양의 반점을 지니고 있는데 포식자의 위협을 감지하면 그 반점을 드러낸다. 두 눈이 갑자기 나타나면 포식자는 순간적으로 당황하고 그 사이를 틈타 나비는 도망을 친다. 경고색 동물이 사용하는 여러 시각적 경고 신호 가운데 좌우대칭 형태가 가장 효과적인 것으로 밝혀졌다. 여러 날개 무늬가 그려진 종이 나비를 사용하여 병아리의 반응을 살펴 본 흥미로운 실험이 있다. 실험 결과 무늬가 크고 대칭성이 뚜렷할수록 경고 효과가 높았다. 스웨덴 과학자들은 이 실험에서 종이 나비를 플라스틱 페트리접시 밑에 붙여놓은 후 접시 안에 음식 부스러기를 올려놓았다. 매회 시험마다 맛있는 음식을 올려놓은 단색의 검은 나비 45마리와 키니네로 처리해 맛이 없는 음식을 올려놓은 경고색 나비 45마리가 바닥에 놓였다. 경고색 나비에는 대칭 무늬 또는 비대칭 무늬가 그려져 있고 각 병아리 집단에는 한 종류의 경고색 나비(대칭의 큰 무의나 작은 무의 혹은 비대칭 무늬)만을 노출시켰다. 그 결과 무늬가 비대칭일 때 경고색 신호의 효율성이 떨어졌다. 연구자들은, 대칭에서 벗어나면 약한 신경 반응이 나오고 그에 따라 병아리가 신호를 감지하거나 맛없다는 기억을 되살리기 어려워지기 때문이라고 결론지었다. 이 실험을 비롯해 그와 유사한 여러 실험 결과를 종합해 보면 이런 흥미로운 결론이 나온다. 즉, 경고색을 지닌 종은 무늬가 크고 좌우대칭일 때 자연선택의 수혜자가 될 가능성이 높다는 것이다.

영국의 정치가이자 철학자인 에드먼드 버크(1729~1797)는 이런 말을 한 적이 있다. “어떠한 격한 감정도 공포심만큼 마음에서 행동력과 합리적 사고력을 효과적으로 앗아가지는 못한다.” 하지만 대칭성의 감지로 생겨나는 인지적 무의식만으로도 포식자를 피하기에 충분할 때가 있다. 마찬가지로 신호를 보내는 쪽에서도 대칭인 견고색 신호를 보낼 때 잠재적 포식자로부터 잡아먹힐 위험을 줄이는 경우가 적지 않다.

―8장 중에서

저/자/소/개

마리오 리비오 Mario Livio

상급 천문학자이자 미국 메릴랜드 주 볼티모어에 있는 STScI(Space Telescope Science Institute)의 과학부장이다. 수학과 예술을 다루었던 『황금비 The Golden Ratio』로 전 세계 독자들의 호평과 더불어 국제 피타고라스상과 페아노상을 받았다. 이외에도 『가속하는 우주 The Accelerating Universe』, 『신은 수학자인가? Is God a Mathematician?』 등의 저작이 있으며, 과학 분야와 인문, 사회 과학 분야의 통합을 누구보다 깊이 있게 이뤄내는 뛰어난 능력으로 이 분야에서 가장 주목받고 있는 저자 중 한 명이다.

역/자/소/개

심재관 manticore77@gmail.com

건국대학교 영문학과와 고려대학교 수학과를 졸업하고 미국 일리노이 대학교 어바나 캠퍼스에서 박사학위를 취득했다. 현재, 서울대학교와 고려대학교에 출강하고 있다. 옮긴 책으로는 『그림 없는 그림책』, 『타임머신』, 『케플러의 추측』, 『수학의 확실성』, 『헐하우스에서 20년』, 『몬스터 대칭군을 찾아서』 등이 있다.

목/차

서문

1. 대칭

2. 마음의 눈으로 본 대칭

3. 방정식에 담겨 있는 잊지 못할 이야기

4. 가난에 찌든 수학자

5. 로맨티스트 수학자

6. 군

7. 대자연을 지배하는 대칭

8. 가장 대칭적인 멋쟁이는 누구인가?

9. 어느 로맨티스트 천재에게 바치는 레퀴엠

부록

주

참고문헌

그림 출처

역자의 말

색인